企业空间 采购商城 存储论坛
首页 > Hadoop > 正文

Hadoop 使用 MapReduce 排序 思路

2014-04-04 00:00来源:中国存储网
导读:本文主要讲对key的排序,主要利用Hadoop的机制进行排序。1、Partitionpartition作用是将map的结果分发到多个Reduce上。当然多个reduce才能体现分布式的优势。2、思路由于每个partition内部是有序的,所以只

本文主要讲对key的排序,主要利用Hadoop的机制进行排序。

1、Partition

partition作用是将map的结果分发到多个Reduce上。当然多个reduce才能体现分布式的优势。

2、思路

由于每个partition内部是有序的,所以只要保证各partition间有序,即可保证全部有序。

3、问题

有了思路,如何定义partition的边界,这是个问题。

解决办法:hadoop提供了一个采样器帮我们预估整个边界,以使数据的分配尽量平均。

继续阅读
关键词 :
Hadoop安装 MapReduce
中国存储网声明:此文观点不代表本站立场,如有版权疑问请联系我们。
相关阅读
产品推荐
头条阅读
栏目热点

Copyright @ 2006-2019 ChinaStor.COM 版权所有 京ICP备14047533号

中国存储网

存储第一站,存储门户,存储在线交流平台